在二阶不确定的贝叶斯网络中,条件概率仅在分布中已知,即概率上的概率。Delta方法已应用于扩展精确的一阶推理方法,以通过从贝叶斯网络得出的总和产物网络传播均值和方差,从而表征了认知不确定性或模型本身的不确定性。另外,已经证明了Polytrees的二阶信仰传播,但没有针对一般的定向无环形结构。在这项工作中,我们将循环信念传播扩展到二阶贝叶斯网络的设置,从而产生二阶循环信念传播(SOLBP)。对于二阶贝叶斯网络,SOLBP生成了与Sum-Propoduct网络生成的网络一致的推论,同时更加有效且可扩展。
translated by 谷歌翻译
当历史数据受到限制时,与贝叶斯网络节点相关的条件概率不确定,并且可以在经验上进行估计。二阶估计方法为估计概率和量化这些估计的不确定性提供了一个框架。我们将这些案例称为Uncer Tain或二阶贝叶斯网络。当完成此类数据时,即每个实例化都观察到所有可变值,已知有条件的概率是dirichlet分布的。本文通过使他们能够学习参数(即条件概率),通过不完整的数据来学习不确定的贝叶斯网络的当前最新方法。我们广泛评估各种方法,通过各种查询的置信界的所需和经验得出的强度来学习参数的后验。
translated by 谷歌翻译
匪徒问题的最新作品在顺序决策环境中采用了拉索融合理论。即使有完全观察到的上下文,也存在一些技术挑战,阻碍了现有的套索融合理论的应用:1)证明在有条件的高斯噪声下的受限特征值条件和2)考虑上下文变量与所选动作之间的依赖性。本文研究了缺失协变量对随机线性匪徒遗憾的影响。我们的工作为拟议算法所产生的协变量概率所产生的遗憾提供了高概率的上限,这表明遗憾的是由于缺失而导致的遗憾,最多$ \ zeta_ {min}^2 $,其中$ \ zeta_ { min} $是在上下文向量观察协变量的最小概率。我们说明了我们的算法,用于实验设计的实际应用来通过连续选择的类别区分DNA探针来收集基因表达数据。
translated by 谷歌翻译
当节点具有人口统计属性时,概率图形模型中社区结构的推理可能不会与公平约束一致。某些人口统计学可能在某些检测到的社区中过度代表,在其他人中欠代表。本文定义了一个新的$ \ ell_1 $ -regulared伪似然方法,用于公平图形模型选择。特别是,我们假设真正的基础图表​​中存在一些社区或聚类结构,我们寻求从数据中学习稀疏的无向图形及其社区,使得人口统计团体在社区内相当代表。我们的优化方法使用公平的人口统计奇偶校验定义,但框架很容易扩展到其他公平的定义。我们建立了分别,连续和二进制数据的高斯图形模型和Ising模型的提出方法的统计一致性,证明了我们的方法可以以高概率恢复图形及其公平社区。
translated by 谷歌翻译
In this paper, we consider incorporating data associated with the sun's north and south polar field strengths to improve solar flare prediction performance using machine learning models. When used to supplement local data from active regions on the photospheric magnetic field of the sun, the polar field data provides global information to the predictor. While such global features have been previously proposed for predicting the next solar cycle's intensity, in this paper we propose using them to help classify individual solar flares. We conduct experiments using HMI data employing four different machine learning algorithms that can exploit polar field information. Additionally, we propose a novel probabilistic mixture of experts model that can simply and effectively incorporate polar field data and provide on-par prediction performance with state-of-the-art solar flare prediction algorithms such as the Recurrent Neural Network (RNN). Our experimental results indicate the usefulness of the polar field data for solar flare prediction, which can improve Heidke Skill Score (HSS2) by as much as 10.1%.
translated by 谷歌翻译
本文开发了一个贝叶斯图形模型,用于融合不同类型的计数数据。激励的应用是从不同治疗方法收集的各种高维特征的细菌群落研究。在这样的数据集中,社区之间没有明确的对应关系,每个对应都与不同的因素相对应,从而使数据融合具有挑战性。我们引入了一种灵活的多项式高斯生成模型,用于共同建模此类计数数据。该潜在变量模型通过共同的多元高斯潜在空间共同表征了观察到的数据,该空间参数化了转录组计数的多项式概率集。潜在变量的协方差矩阵诱导所有转录本之间共同依赖性的协方差矩阵,有效地融合了多个数据源。我们提出了一种可扩展的可扩展性变异期望最大化(EM)算法,用于推断模型的潜在变量和参数。推断的潜在变量为可视化数据提供了常见的维度降低,而推断的参数则提供了预测性的后验分布。除了证明变异性程序的模拟研究外,我们还将模型应用于细菌微生物组数据集。
translated by 谷歌翻译
使用具有与查询依赖性噪声的20个问题估计框架,我们研究了在单位立方体上移动目标的非自适应搜索策略,该策略在分段恒定速度模型下具有未知的初始位置和速度未知。在这个搜索问题中,有一个甲骨文在任何时候都知道目标的瞬时位置。我们的任务是尽可能几次查询甲骨文,以在任何指定的时间准确估算目标的位置。我们首先研究了Oracle对每个查询的答案被离散噪声损坏,然后将我们的结果推广到添加剂白色高斯噪声的情况。在我们的公式中,性能标准是分辨率,该分辨率定义为真实位置和估计位置之间的最大$ l_ \ infty $距离。我们通过推导非肌电和渐近界限来表征最佳的非自适应查询程序的最低分辨率,并具有有限数量的查询。当查询数量满足一定条件时,我们的边界在一阶渐近含义上是紧密的,并且当目标以恒定速度移动时,我们的边界在更强的二阶渐近感中紧密。为了证明我们的结果,我们将当前的问题与渠道编码联系起来,从有限的区块长度信息理论借用想法,并根据可能的量化目标轨迹的数量构建界限。
translated by 谷歌翻译
在这项工作中,我们研究了由部分微分方程(PDE)治理的动态过程的二阶统计表征中稀疏和多通道结构的出现。我们考虑了几种最先进的多道协方差和逆协方差(精确)矩阵估计,并在物理驱动的预测背景下纳入集合卡尔曼滤波器(ENKF)时,在物理驱动的预测中的准确性和可解释方面来检查他们的优点和缺点。特别地,我们表明,当与适当的协方差和精密矩阵估计器集成时,可以通过ENKF准确地跟踪从泊松和对流扩散类型的多道数据。
translated by 谷歌翻译
基于K-Nearest的邻居(KNN)的深度学习方法,由于其简单性和几何解释性,已应用于许多应用。但是,尚未对基于KNN的分类模型的鲁棒性进行彻底探索,而KNN攻击策略欠发达。在本文中,我们提出了对敌对的软knn(询问)损失,以设计更有效的KNN攻击策略,并为他们提供更好的防御能力。我们的问损失方法有两个优势。首先,与以前的作品中提出的目标相比,问问损失可以更好地近似KNN分类错误的可能性。其次,询问损失是可以解释的:它保留了扰动输入和课堂参考数据之间的相互信息。我们使用询问损失来生成一种名为Ask-Attack(Ask-ATK)的新颖攻击方法,该方法显示出相对于先前的KNN攻击,显示出了卓越的攻击效率和准确性降解。然后,基于Ask-ATK,我们得出了一个Ask \ supessline {def} ense(ask-def)方法,该方法优化了Ask-ATK引起的最坏情况训练损失。 CIFAR-10(IMAGENET)上的实验表明,(i)Ask-Atk成就$ \ geq 13 \%$($ \ geq 13 \%$)提高了先前的KNN攻击的攻击成功率,以及(ii)ask-def $ \ geq 6.9 \%$($ \ geq 3.5 \%$)在稳健性改善方面胜过常规的对抗训练方法。
translated by 谷歌翻译
We derive a set of causal deep neural networks whose architectures are a consequence of tensor (multilinear) factor analysis. Forward causal questions are addressed with a neural network architecture composed of causal capsules and a tensor transformer. The former estimate a set of latent variables that represent the causal factors, and the latter governs their interaction. Causal capsules and tensor transformers may be implemented using shallow autoencoders, but for a scalable architecture we employ block algebra and derive a deep neural network composed of a hierarchy of autoencoders. An interleaved kernel hierarchy preprocesses the data resulting in a hierarchy of kernel tensor factor models. Inverse causal questions are addressed with a neural network that implements multilinear projection and estimates the causes of effects. As an alternative to aggressive bottleneck dimension reduction or regularized regression that may camouflage an inherently underdetermined inverse problem, we prescribe modeling different aspects of the mechanism of data formation with piecewise tensor models whose multilinear projections are well-defined and produce multiple candidate solutions. Our forward and inverse neural network architectures are suitable for asynchronous parallel computation.
translated by 谷歌翻译